埃隆・马斯克的xAI公司宣布推出名为“Colossus”的人工智能训练系统，其核心是100,000块Nvidia H100 GPU，被认为是全球最强大的AI训练系统。该系统性能甚至可能超越美国能源部的Aurora超级计算机。Colossus的强大主要得益于Nvidia的H100 GPU，这款GPU在运行语言模型时速度比之前的GPU快30倍，尤其在基于Transformer神经网络架构的任务中表现出色。马斯克计划在未来几个月内将GPU数量增加至200,000块，包括50,000块新一代的H200 GPU，以进一步增强性能。此举将为xAI的旗舰大型语言模型Grok-2的继任者提供强大支持，预计该模型将在年底前发布。Colossus的部分服务器GPU原本是为特斯拉预留的，但马斯克向Nvidia请求将价值超过5亿美元的12,000块H100 GPU转给xAI。到年底，特斯拉在Nvidia硬件上的支出预计将达到30亿到40亿美元。

GPU云计算公司Lambda推出1-Click集群服务，允许用户按需获取Nvidia H100GPU和Quantum2InfiniBand集群，特别适合短期需要GPU算力的公司。此创新服务简化了硬件和软件协调流程，无需长期合同，用户只需在需要时预订，最小预订时间为两周。Lambda成立于2012年，近期融资3.2亿美元，估值15亿美元，显示出市场对其服务的高需求。此服务针对那些正在建立自己模型、需要大量GPU算力但不需24小时全天候使用的公司，特别是小型AI企业，提供了一种灵活、成本效益高的解决方案。

马斯克于7月9日宣布，其人工智能公司xAI正在打造一台拥有10万块英伟达H100GPU的超级计算机，预计将于本月底交付并开始训练。这一举措标志着xAI终止了与甲骨文扩大现有协议、租用更多英伟达芯片的洽谈。

["英伟达 H100 GPU 交货周期缩短到3-4个月","部分公司开始转售过剩的 H100 80GB 处理器","对 AI 芯片的需求仍然超过供给","云服务提供商提供按需租用 H100 GPU 的服务","英伟达 H100 等处理器的价格未下降","企业更加注重价格和采购的合理性","AI 领域可能迎来更加平衡的市场格局"]